Global Optimization and Inference-Time Region Grafting for Agentic Workflows
Agentic工作流的全局优化与推理时区域嫁接
🧭 Agentic工作流推理时动态局部优化 ★ 深度解读
HBNU · UCSB · SKKU · UNIST
在推理时对离线全局工作流进行局部区域替代，利用无标签质量信号实现单输入自适应，无需重训练
📌 工作参考价值（4 点）
- 推理时动态流水线调优：在电商/推荐的多阶段流水线（召回→粗排→精排→重排）中，离线搜索一个全局最优的算子组合，然后在每次请求时，利用无人工标注的代理信号（如多路召回结果的一致性、CTR预估的置信度、多样性等）对部分阶段进行局部算子替换，实现 per-query 自适应，无需重新训练整个流水线。
- 记忆化缓存获胜配置：为相似请求特征（如用户意图标签、上下文类型）建立签名，缓存历史上对该签名有效的局部配置，大幅降低线上搜索开销。这类似于推荐系统中为相似用户或 query 缓存个性化策略。
- 耦合守卫确保全局稳定性：当替换某个阶段（如精排模型）时，通过检查替换后输出与上下游的衔接一致性（例如新精排序列与上游召回集合的重叠度）来决定是否接受更改，避免局部优化破坏整体效果，尤其适用于有依赖关系的多步推理或搜索链路。
- 低成本冷启动与新任务迁移：当更换更强的基座模型（如从轻量级升级到千亿级大模型）时，无需重新搜索全局工作流，只需复用已有的全局结构并在推理时局部嫁接，即可获得性能提升，适合模型迭代时的快速上线。